Lưu Tri Viễn chào đời năm 895, dưới thời vua Chiêu Tông nhà Đường, tại Thái Nguyên, trong một gia đình quý tộc người Sa Đà. Cha ông là Lưu Điền, tướng phục vụ dưới trướng Tiết độ sứ Hà Đông[5]). Mẹ ông là Yên thị, vợ của Lưu Điền.[3] Ông có ít nhất một người anh em cùng cha (không rõ là có cùng mẹ hay không), Lưu Sùng.[6] Yên thị — sau khi Lưu Điền mất — lại có con với một người đàn ông họ Mộ Dung. Người anh em cùng mẹ này với Lưu Tri Viễn có tên gọi là Mộ Dung Ngạn Siêu.[7] Lúc trẻ, Lưu Tri Viễn được ghi nhận là nghiêm cẩn và lễ độ. Ông là một chiến tướng đắc lực dưới quyền của Lý Tự Nguyên, con nuôi của Lý Khắc Dụng.[3]

Năm 907, kẻ địch của Lý Khắc Dụng là Chu Toàn Trung, Tiết độ sứ Tuyên Vũ[8]), đang kiểm soát triều đình nhà Đường, cướp ngôi vua của Đường Ai Đế, chấm dứt triều Đường, đặt quốc hiệu là Lương. Lý Khắc Dụng và các trấn quân phiệt khác từ chối công nhận tân hoàng đế, và Lý Khắc Dụng bấy giờ tuyên bố độc lập, lấy tên nước là Tấn. Sau khi Khắc Dụng mất, con ông ta là Lý Tồn Úc kế nhiệm, tiếp tục chống lại Hậu Lương.[9] Năm 919, trong trận chiến ở Đức Thắng[10]), một pháo đài của pihas Bắc Hoàng Hà mà Lý Tồn Úc xem như một cứ điểm quan trọng, con rể Lý Tự Nguyên là Thạch Kính Đường, bị quân Hậu Lương đánh tới tấp, rồi bị ngã ngựa. Lưu Tri Viễn đang chiến đấu ở gần Thạch Kính Đường, đưa ông ta lên ngựa và bỏ chạy, vì họ cố tình chạy từ từ nên quân Hậu Lương cho rằng phía trước có phục kích, vì thế không rượt theo nữa. Từ đó, ông và Thạch Kính Đường trở nên thân thiện với nhau.[11]